Social Dynamics of AI Support in Creative Writing

Recently, large language models have made huge advances in generating coherent, creative text. While much research focuses on how users can interact with language models, less work considers the social-technical gap that this technology poses. What are the social nuances that underlie receiving support from a generative AI? In this work we ask when and why a creative writer might turn to a computer versus a peer or mentor for support. We interview 20 creative writers about their writing practice and their attitudes towards both human and computer support. We discover three elements that govern a writer’s interaction with support actors: 1) what writers desire help with, 2) how writers perceive potential support actors, and 3) the values writers hold. We align our results with existing frameworks of writing cognition and creativity support, uncovering the social dynamics which modulate user responses to generative technologies.

(DeepL) 近年、大規模な言語モデルは、首尾一貫した創造的なテキストを生成する上で大きな進歩を遂げている。多くの研究が、ユーザーがどのように言語モデルと対話できるかに焦点を当てているが、この技術がもたらす社会的・技術的ギャップについて考察した研究は少ない。生成的AIからサポートを受けることの根底にある社会的ニュアンスとは何だろうか？この研究では、クリエイティブな作家がいつ、そしてなぜ、サポートのために同僚やメンターではなくコンピュータに頼るのかを問う。20人のクリエイティブ・ライターに、彼らの執筆活動や、人間やコンピュータのサポートに対する態度についてインタビューした。その結果、作家と支援者の相互作用を支配する3つの要素を発見した： 1）作家がサポートを望むもの、2）作家が潜在的なサポート者をどのように認識しているか、3）作家が抱いている価値観である。我々は、我々の結果を、既存の文章認知と創造性支援のフレームワークと整合させ、ジェネレーティブ・テクノロジーに対するユーザーの反応を変調させる社会的ダイナミクスを明らかにする。

議論の5.1.2

研究者はpre-trained language models を general purposeだと考えがちだが、実際には特定の単一の視点を提供する

ようするに西洋の白人男性

しかし、その視点を代表するものではない

クィアの友達に小説を読んでもらうことは、クィアの視点から読まれることを保証する

しかしその読者はすべてのクィアを代表して感想を述べるわけではない

また、作者はそのような感想を求めているわけでもない